Thành phố Murray được thành lập năm 1847 tại thung lũng Salt Lake bởi những di dân tiên phong người Mormon. Đến năm sau, một nhóm dân di cư khác cũng đến đây và lập ra những khu dân cư rải rác trong vùng vào mùa thu năm 1848. Lúc đầu, thành phố không có tên gọi là Murray mà được gọi bởi nhiều cái tên khác nhau như "Mississippi Ward", "Cottonwood", "Big Cottonwood" hay "South Cottonwood". Đến thập niên 1860, khu vực này mới chỉ là nơi sinh sống của khoảng 20 gia đình. Kinh tế của vùng chủ yếu dựa trên canh tác đất đai cho đến khi những mỏ quặng được tìm ra vào năm 1869. Sau đó, những lò luyện kim đã được xây dựng tại đây và khu vực này trở thành một trong những trung tâm lớn về luyện kim trong suốt 30 năm tiếp đó. Thành phố liên tục phát triển. Cái tên Murray ngày nay bắt nguồn từ tên vị tướng trong thời kỳ nội chiến Eli Murray. Ông cũng là thống đốc bang Utah trong thời gian từ năm 1880 đến 1886.